Beyond Entropy: Correctness-Aware Advantage Shaping via Contrastive Policy Optimization
超越熵：对比策略优化实现正确性感知优势塑造
🧭 RLVR中的正确性感知优势塑造
The Chinese University of Hong Kong · South China University of Technology · Nanyang Technological University
用对比分歧替代熵作为优势信号，实现RLVR中更细粒度的token级正确性感知和策略优化。
📌 工作参考价值（4 点）
- 在对话推荐或搜索Agent的RLHF/RLVR训练中，使用参考策略（如预训练LLM）与当前策略的token级分布对比分歧，替代熵来构造优势，可更精细地区分哪些token导致错误，从而提升训练效率。
- 处理推荐或问答任务中常见的“全对/全错”组（zero-advantage组）时，对比分歧可提供内部差异信号，避免训练数据浪费，尤其适用于二元成功反馈的场景。
- 利用正确与错误响应自然引导利用与探索的思想，可设计在线学习策略：对高奖励样本偏向利用（低温度），对失败样本增加探索（高温度或对比分歧驱动的扰动），平衡推荐Agent的短期准确率和长期多样性。
- On-policy蒸馏的视角为生成式推荐模型的知识蒸馏提供新思路：可将外部教师（如精排模型）的输出作为后验分布，用对比分歧对齐学生策略，提升列表生成任务的逐token优化。